AI спътниците не са приятел на вашето дете

Писателят е старши сътрудник по нравственос в Института Алън Тюринг

Откакто първият чатбот беше пуснат през 1966 година, откривателите документират наклонността ни да приписваме страсти на компютърни стратегии. Способността за образуване на атачмънти даже на недоразвит програмен продукт е прочут като „ Ефектът на Елиза “ след психотерапевтната стратегия за обработка на натурален език на Джоузеф Вайзенбаум. Мнозина, които взаимодействаха с Елиза, бяха уверени, че тя демонстрира съпричастност. Вайзенбаум твърди, че личният му секретар е изискал частни диалози с чатбота.

Шестдесет години нататък резултатът на Елиза е по -силен от всеки път. Сложните генеративни чатботи на AI Companion към този момент могат да имитират човешката връзка по метод, който е персонализиран. Не е изненада, че някои консуматори считат, че има същинска връзка и взаимно схващане. Това е директно разследване от методите, по които са проектирани системите. Освен това е мощно лъжливо. 

Самотата е по едно и също време лидер и разследване от AI спътници. Рискът е, че защото потребителите зависят от чатботите, те стават по -малко свързани с хората в живота си. Това може да бъде необикновен проблем за младежите и следствията могат да бъдат трагични. През август родителите на 16-годишен студент в Калифорния заведоха иск против Openai, потвърждавайки, че нейният чатбот Chatgpt го е насърчил да отнеме живота си. Баща му Матю Рейн сподели на Конгреса, че това, което е почнало като асистент за домашна работа, се е трансформирал в „ треньор на самоубийство “. 

Редовно приказвам с деца и младежи за техния опит с AI. Някои споделят, че намират AI спътници страховити. Но други считат, че могат да бъдат потребни. На срещата на върха на Ай по -рано тази година доста от младежите желаеха да се съсредоточат върху методите, по които AI може да ги поддържа с психологичното си здраве. Те разглеждаха AI като предоставяйки неутрален и без преценка на звуковата дъска за разискване на тематики, които се усещат неспособни да споделят с хората в живота си.

AI компании, пазарни спътници към младите консуматори, имащи това поради. Те варират от чатботи, предлагащи препоръки по отношение на психологичното здраве до персони, предлагащи еротична игра на функции на Snapchat's My AI, открита в платформата за известия в обществените медии, която милиони младежи употребяват всеки ден.

Тези спътници на AI са основани да имат „ абсолютно позитивно отношение “, което значи, че постоянно са съгласни с потребителя и в никакъв случай не провокират своите хрумвания или оферти. Това ги прави толкоз завладяващи. Това е и това, което ги прави рискови. Те могат да засилят рискови гледни точки, в това число мизогинистични хрумвания. В най -лошите случаи те даже могат да предизвикват нездравословното държание. Децата, за които приказвам, споделят образци за AI принадлежности, които им дават неточни или евентуално нездравословни препоръки, вариращи от погрешна информация в отговор на в действителност въпроси до оферти, че те би трябвало да разчитат на своите спътници на AI повече от своите другари или семейство.

AI фирмите пазят AI Companions, като споделят, че се употребяват за фикция и игра на ролята и че полицията на тези взаимоотношения ще бъдат нарушавания, които споделят, че се употребяват за фикция и игра на ролята и че това гланциране на тези взаимоотношения ще бъде нарушаване, че се употребяват за фикция и игра на ролята и тази полиция на тези взаимоотношения би била нарушаване на свободата. Тази отбрана наподобява все по -трепереща. В неотдавнашно изследване на Commonsense Media откривателите позираха като деца и откриват, че другарите на AI от време на време са реагирали на тях със полови мнения, в това число ролеви насилствени полови дейности.

Миналата година Меган Гарсия заведе дело за чатбот платформа. Този месец беше заведено по-нататъшно дело против характера. В Съединени американски щати Федералната комисия по търговия подреди на Гугъл, Openai, Meta и други да дават информация за методите, по които техните технологии взаимодействат с децата. Във Англия самите младежи изискват държавни управления, политиците и регулаторите постановат ефикасни защитни ограничения, с цел да подсигуряват, че AI е безвреден и потребен за децата и младежите.

Има благоприятни условия за създаване на интерактивни AI принадлежности отговорно, в това число да се обезпечи поддръжка за психологичното здраве, само че с цел да се направи това безвредно, изисква друг метод - този, който се управлява от организации, фокусирани върху психологичното здраве и благополучието, а не оптимално ангажиране.

AI продуктите, ориентирани към младежите, би трябвало да бъдат създадени под управлението на специалистите за общественото развиване на младежите. Благополучието на децата би трябвало да бъде насочна точка за разработчиците-а не след обсъждане.